ReliableRAG: Combating Misinformation in Retrieval-Augmented Generation via Reliability-Guided Reasoning Chains
ReliableRAG：可靠性引导推理链对抗RAG错误信息
🧭 多跳QA · 细粒度可靠性评估
Jilin University · Dalian University of Technology · National University of Singapore · Zhuhai College of Science and Technology
首个面向多跳QA的可靠性驱动RAG框架，通过细粒度三元组评估与推理链生成对抗欺骗性错误信息
📌 工作参考价值（4 点）
- 借鉴“信息段→结构化三元组→可靠性打分”的管线：在电商商品问答或导购场景中，把商品详情、评论、UGC转为三元组，结合 query 相关性与三元组可信度（来源权威度、事实一致性）过滤不可靠内容，降低错误信息对答案的影响。
- 采用 top-K 非冗余三元组压缩上下文：RAG 检索大量文本易含噪声，先抽取三元组并去冗余，能减少 token 消耗、提高生成准确性，适合实时推荐文案生成或客服Agent场景。
- 自回归构建推理链而非一次性生成：在多跳决策场景（如“为何该商品适合油皮？”需综合成分、评价）中，逐跳纳入可靠三元组，提高推理可解释性与鲁棒性，可参考用于购物决策Agent。
- 显式区分语义相关性与事实可信度：推荐/搜索中只做语义匹配易被“看起来相关但事实错误”的内容误导，建议增加可靠性评估模块（来源权威度、跨源验证等）。